Decomposing Queries into Tool Calls for Long-Video Keyframe Retrieval
长视频关键帧检索：查询分解为工具调用与布尔合并
🧭 长视频理解 · 查询分解与工具调用 ★ 深度解读
University of Illinois at Urbana-Champaign
ToolMerge 用 LLM 规划器将查询分解为多个轻量视觉工具调用，并通过布尔运算符合并排名，在长视频关键帧检索上取得领先
📌 工作参考价值（4 点）
- 查询分解与工具融合范式：在电商搜索或商品推荐中，可将一个复杂查询（如“红色连衣裙，有蕾丝，适合晚宴”）分解为多个独立检索流（颜色、材质、场景），每个流用专用 scoring 工具，再用布尔 rank 合并（AND/OR）代替简单加权，可提升多属性检索精度。
- 轻量级检索 + LLM 规划器分离：工业级系统可沿用 SigLIP/CLIP 等轻量模型做粗筛，OCR 等规则做精准补充，再由 LLM 规划器决定如何组合，无需对每一帧或每一件商品调用大模型，大幅度降低延迟和成本。
- 无标注 RL 优化检索策略：GRPO 训练规划器时，仅使用基于时间戳的召回分数作为奖励，无需人工标注最优工具调用序列。这一思路可直接迁移到商品推荐或 RAG 场景，用用户点击或检索命中率作为奖励，通过 RL 优化查询分解策略。
- NMS 去重维持多样性：在最终帧选择中使用的贪婪 NMS（保证最小时间间隔），可借鉴到推荐系统的多样性约束，选择相似度高的候选项进行步进式过滤，平衡相关性和多样性。